Tháng 3 năm 1943, ông được giải ngũ, trở về với đời sống dân sự cư ngụ ở Tỉnh Vĩnh Yên và tham gia Quốc dân đảng ở Đảng bộ Vĩnh Yên. Đến tháng 8 năm 1945, ông làm Uỷ viên Quân sự thuộc Đệ tam Khu chiến của Việt Nam Quốc dân đảng gồm các tỉnh từ Vĩnh yên lên đến Tuyên Quang, Lào Cai và Lai Châu. Tham gia các trận chiến chống Việt Minh tấn công vào Đệ tam khu chiến từ năm 1945 cho đến năm 1946. Sau đó ông làm Chỉ huy trưởng trường Quân chính Vĩnh Yên (tiền thân của trường Lục quân Yên Bái).